Ngọn tháp kết hợp phong cách kiến trúc châu Âu với hàng cửa cuốn gô-tích hai tầng dưới nhưng phần mái cong giữ quy thức kiến trúc Việt Nam.

Ngôi tháp được xây dựng trên một gò đất rộng khoảng 350m2, bình đồ hình chữ nhật có 4 tầng, tầng dưới xây rộng hơn, rồi thu nhỏ dần lên tầng trên. Hai mặt phía đông và tây có 3 cửa cuốn. Phía nam và bắc có 2 cửa cuốn nhọn ở đầu. Đỉnh 2 tầng có lan can chạy xung quanh. Bốn đầu đao đắp uốn cong dần lên vào giữa đỉnh, trên đỉnh có hình ngôi sao 5 cánh.

Tầng dưới cùng xây trên móng cao 0,8m. Chiều dài là 6,28m trong khi chiều rộng là 4,54m. Tầng này do là hình chữ nhật nên chiều dài mở ra ba cửa, còn chiều ngang mở ra hai cửa, tất cả là 10 cửa; bên trong phân ra ba gian, các gian thông với nhau bằng các cửa ngăn, đỉnh cũng nhọn như tất cả các cửa khác. Cả tầng có 4 cửa ngăn, tổng cộng 14 cửa.

Tầng hai xây lùi vào một chút, chiều dài 4,8m, chiều rộng 3,64m, cũng chia ra ba gian, kiến trúc y như tầng một với 14 bộ cửa nhưng nhỏ hơn. Tầng ba thu nhỏ hơn nữa, dài 2,97m, rộng 1,9m, chỉ mở một cửa hình tròn ở mặt phía đông, đường kính 0,68m. Sát tường phía tây có một ban thờ, không rõ thờ ai và có từ lúc nào (Một số thông tin được cho là thờ cha của Nguyễn Ngọc Kim). Tầng đỉnh chỉ như một vọng lâu, vuông vức, mỗi bề 2m. Trên tường mặt phía đông, bên trên cửa tròn có đường kính là 0.68m của tầng ba có ba chữ Quy Sơn Tháp, nghĩa là Tháp Núi Rùa. Như vậy, từ nền đất Gò Rùa lên đến đỉnh tháp là 8,8m.

Với sự giao thoa giữa hai lối kiến trúc là kiến trúc Pháp và kiến trúc bản địa tạo nên nét đẹp độc đáo, riêng biệt của Tháp Rùa. Điều quan trọng nhất là Tháp Rùa đã, đang tồn tại không chỉ là hiện hữu mà còn là tinh thần của người dân Hà Nội nói riêng và của đất nước Việt Nam nói chung.